A*-Thought-V2: Efficient Latent Reasoning via Geometric Dynamics of LLM
A*-Thought-V2：基于 LLM 几何动力学的高效隐式推理
🧭 LLM 推理加速 · 隐式 CoT 压缩
Beijing University of Posts and Telecommunications · The Hong Kong Polytechnic University · Tsinghua University · JIUTIAN Research · OpenBMB
用 hidden state 几何方向判断 CoT 步骤价值，对齐步骤显式保留、偏离步骤压缩为 latent token，提升精度与效率
📌 工作参考价值（4 点）
- 在电商/Agent 的 LLM 推理链路中，可借鉴「几何对齐」做步骤级压缩：对商品推荐理由、query 改写、广告文案生成的 CoT，计算当前 step 到最终 answer 的 hidden state 夹角，保留小角度的直接执行步骤，把大角度的探索/校验步骤压缩为 latent token，降低 context 与 KV cache 占用。
- 训练侧可用 stepwise embedding forcing + label forcing：压缩冗余步骤时不丢弃信息，池化为单 embedding 并用 soft token distribution 监督，这比 hard truncation 更适合推荐/搜索中的行为序列、商品描述等中间信息压缩，能保留分布与多峰语义。
- 若业务要处理大规模 query/商品推理流水线，A*-Thought-V2 报告的训练成本下降（预处理 -94.6%、训练 -80.3%）和 Accuracy per Computation Unit 2.29x 可作为 ROI 参考；但需在 Qwen3.5/3.6 这类模型上复现验证，小模型或非推理任务迁移前要做适配。
- 表示分析结论：latent token 位置熵更高，soft target 提供更丰富特征学习——在生成式推荐里对 Semantic ID 或 item 描述序列做压缩时，可考虑不强制 hard one-hot，而保留软分布以 capture 多义性。